Efficient Agentic Reasoning Through Self-Regulated Simulative Planning
通过自调节模拟规划实现高效智能体推理
🧭 自调节模拟规划 · Agent 推理优化 ★ 深度解读
Institute of Foundation Models (IFM) · Carnegie Mellon University
分解智能体为反应执行、模拟规划和自调节三系统，用更少推理token达到竞争性准确率。
📌 工作参考价值（4 点）
- 在Agent工作流中引入配置器模块：可借鉴SR²AM的配置器（System III）设计，对每一步状态评估是否需要调用规划模块（System II），避免不必要的深度推理。在电商对话或推荐Agent中，可根据用户问题复杂度、当前信息充分度动态决定是否进行多步推理，从而降低平均推理成本。
- 利用模拟规划提升长期交互任务的成功率：System II 通过世界模型（LLM本身）预测未来状态和动作序列来显式规划，可应用于需要多轮交互的推荐或搜索场景（如多步商品比较、旅行规划）。显式地模拟“提出动作 → 预测下一状态”可增加规划的可解释性和可纠错性。
- RL训练引导模型“深度规划而不频繁规划”：实验表明RL使规划深度增加22.8%而规划频率仅增2%，这意味着可以训练模型在需要时规划得更长远，而不是盲目增加推理次数。这个trick可直接用于效果/成本敏感的微调中，用RL奖励函数引导模型在有限token预算下提升任务完成率。
- 数据构造方法：从强模型轨迹重建结构化规划：v1.0通过注释器从已有链式思考中提取配置器决策和模拟规划内容，再用于监督微调，可作为一种高效的数据增强策略。如果业务中已有成功Agent的完整对话轨迹，可以用类似方法逆向构造结构化SFT数据，快速冷启具有自调节规划能力的小模型。